测试时记忆演化能否在科学发现中超越测试时训练?
🧭 测试时记忆演化替代权重更新
UC Santa Barbara · UC Berkeley
提出TTME:不更新权重,通过外部记忆持续沉淀经验指导后续发现,性能优于TTT且算力降八成以上
📌 工作参考价值(4 点)
- 在电商/广告的 Agentic 搜索、选品/文案迭代场景,可用“外部经验记忆”替代线上微调:把每次 query/候选/收益反馈写入可检索 memory,后续推理时检索相似案例,避免在线权重更新和灾难性遗忘。
- 具体实现可借鉴 TTME:把成功/失败经验蒸馏成结构化条目(如状态→动作→奖励),用 memory read/write 控制探索;适合低延迟、高吞吐的推荐对话 Agent。
- 计算成本收益可指导工程:类似 Qwen3-8B 规模下,外部记忆方法比在线训练省 80%+ FLOPs、约一半 runtime,适合边缘/实时决策。
- 需注意论文在数学发现任务上验证,迁移到业务前应先在自有任务上对比 TTT、无适应和 memory 方案的收益/复杂度。
Meta 面向 AMD GPU 的端到端协同设计与高性能 AI 训练
🧭 异构 GPU 训练协同优化 ★ 深度解读
Meta · AMD
通过硬件-模型协同设计、Origami 分析性能模型与 agentic kernel 优化,使 MI350X 在 DLRM 训练吞吐达 B200 的 101%
📌 工作参考价值(4 点)
- 硬件-模型协同设计:若业务有 AMD MI350X 或其他大 HBM 加速器,不要直接移植 CUDA kernel / 模型配置;应利用更大 HBM 扩大 per-GPU batch size、减少 activation checkpointing,并尝试扩大 embedding 表、序列长度或 hidden dim,可同时获得吞吐和模型质量收益(论文报告 20% 提速、>0.1% NE 提升)。
- 用分析性能模型替代离线 autotuning:推荐模型 GEMM 形状多且不规则,Origami 用硬件参数化 tile 模型微秒级选择 kernel,精度达 93%;可将类似思路用于自有训练框架的 kernel 选择或 Triton autotune 配置,避免维护海量 lookup table。
- 把 AMD 多 chiplet 的坑写进 agent skills:atomics 在 MI350X 上高竞争下可慢 10×,应优先用 shared memory 树归约 / 寄存器 cache 替换全局 atomic;把这类优化编码为 agentic workflow 技能,可自动修复长尾 kernel(论文中 JFA 提速 2.3×、端到端 25%)。
- Triton kernel 的硬件适配经验:AMD 64 线程 wavefront 不同于 NVIDIA warp,建议更大的 num_warps、浅 pipeline(num_stages≈2)、用 PID swizzle 改善 L2 locality,并启用 matrix_instr_nonkdim=16 / fast_expf 等;这些可作为跨 GPU 平台的 kernel 调优 checklist。
SheetCompass:面向智能体表格推理的层次关系图框架
🧭 多Agent协同 · 层次图表格推理 ★ 深度解读
State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China
将电子表格从扁平文本转为层次关系图,结合双级记忆与三Agent闭环,在SCB/SB/SheetRM上全面超越既有Agent方案
📌 工作参考价值(4 点)
- 多表/多域结构化数据可建模为表节点+列节点的层次图:显式保留包含、邻接等结构边,再用语义相似度+LLM逻辑打分构建跨表语义边;商品表、订单表、广告报表等联合推理可直接复用,避免扁平序列丢失空间与跨表依赖。
- 三Agent分工(Explorer 定位与子图提取 → Programmer 受图约束生成代码 → Reflector 用 checklist 校验执行状态)适合需要工具调用的长链路数据流水线,闭环校验显著减少语义错误。
- 双级记忆:静态专家知识(业务规则、公式模板、工具修复经验)与动态推理经验(当前轨迹、错误日志,成功经验回流长期库)结合,能避免重复犯错,适合长表格/报表生成任务。
- 用语义相似度筛选种子节点,再通过 BFS 提取共享子图进行上下文压缩,类似 RAG 中的上下文裁剪,可有效控制 prompt 长度,适合大规模表格/文档 Agent 场景。
ProjAgent:基于过程相似检索的仓库级代码生成
🧭 Agent 工作流与检索增强代码生成
University of California, Irvine
提出程序化相似性作为显式检索信号,结合 Agent 工作流与静态分析反馈,提升仓库级代码生成效果
📌 工作参考价值(4 点)
- 过程相似检索思路可迁移:将任务分解为子步骤,为每个子步骤检索历史上相似的“过程序列”(如策略、操作链),而不仅依赖语义或字面匹配,适合推荐解释生成、多步推荐策略选择等场景。
- Agent 工作流与校验反馈循环:使用静态分析反馈迭代修复代码,类似推荐系统中利用规则或业务逻辑对推荐结果进行事后校验与修正,可设计保守的反馈回路提升生成质量。
- 混合相似度检索策略:将程序化相似度与传统语义相似度融合,构建更丰富的上下文,可借鉴用于推荐系统的多路召回或特征融合,例如同时考虑行为序列相似和内容语义相似。
- 上下文动态构建:Agent 在每步按需检索相关代码片段,可类比为推荐 Agent 在不同决策阶段动态检索不同知识库,提升生成结果与项目级约束的一致性。
OpenRath:以会话为中心的多智能体运行时状态管理
🧭 多智能体运行时状态抽象
提出 Session 作为一等运行时值,统一多智能体系统的状态、分支与审计
📌 工作参考价值(4 点)
- 复杂 Agent 工作流的状态审计与复现:在电商推荐的多步 Agent 决策(如用户意图理解→多路召回→融合排序)中,可将 Session 作为贯穿全流程的一等对象,统一记录工具调用、沙箱操作、内存事件和上下文压缩证据,便于事后复现线上异常或离线评估策略分支。
- 显式分支与合并支持策略探索:推荐 Agent 经常需要并行探索多种召回理由或排序策略,当前依赖外部编排或硬编码,OpenRath 的 fork / merge 操作可直接内嵌到运行时,让 Agent 自行分支验证再择优合并,降低工程复杂度。
- Selector 路由控制流:将控制流决策抽象为 Selector,Agent 可依据 Session 状态动态选择下一步动作(如调用哪个子 Agent 或工具),这对构建自适应推荐流水线(例如根据用户行为密度切换简单规则与 LLM 推理)有直接参考价值。
- 后端无关与可组合设计:Session 抽象屏蔽了底层存储、沙箱与 LLM 提供商的差异,便于在离线实验与线上部署之间迁移,同时 Workflow 的第一类定义能简化多团队协作开发推荐系统的 Agent 组件。
Struct-Searcher:基于信念修正的多模态深度检索结构思维框架
🧭 多模态深度检索 · 信念修正 · 结构化思维 ★ 深度解读
CUHK · LIGHTSPEED · PKU · Tongji University · THU
提出结构思维范式,以多模态结构图显式管理冲突证据,实现跨模态冲突感知的深度信息检索,平均提升17.2%准确率。
📌 工作参考价值(4 点)
- 冲突消解可借鉴结构图:在电商多模态商品信息(如详情图与评价视频矛盾)中,可构建假设–证据图,用支持/反驳关系驱动信息筛选,避免线性证据累积导致的错误传播。
- 可解释的校验链:MSG 显式记录 Goal → Hypothesis → Evidence 的依赖与验证链路,便于追踪 Agent 推理过程,适合对答案质量要求高的搜索、客服等场景。
- 即插即用与模型无关:框架对 Backbone 不敏感,在 GPT-4o 到 GPT-5 等 5 种模型上均稳定提升,可直接嵌入现有 VLM 驱动的 Agent 管线。
- 并行探索与剪枝:对歧义输入(如商品模糊图)可并行生成竞争假设并验证,通过冲突证据即时剪枝,减少级联错误,可迁移到需要多跳推理的推荐解释或生成式推荐流程。
GenClaw:代码驱动的Agent式图像生成
🧭 Agent · 代码中介的可控图像生成 ★ 深度解读
Tencent Hunyuan · Sun Yat-sen University · Tsinghua University · The Chinese University of Hong Kong
提出代码驱动的Agent式图像生成范式,通过构思→草图→上色三层解耦,用可执行代码作为中间画布,大幅提升空间可控性与可解释性。
📌 工作参考价值(4 点)
- 代码驱动布局可迁移至商品图模板生成:电商场景中需要精确控制多个商品的位置、数量、文字信息(如促销标签),借鉴GenClaw用SVG/HTML构建结构化草图再渲染的思路,可将布局规划与纹理生成解耦,减少对象计数错误与属性绑定失败。
- 分层编辑机制降低局部修改对非目标区域的破坏:当需要修改主图中某一元素(如替换商品、移动logo)时,利用SAM分割后组织为JSONL图层,仅对目标层做编辑,可显著提升编辑一致性(文中PSNR从20以下提升到27.87),这对电商主图的迭代优化很有价值。
- 搜索增强认知层可弥补模型知识滞后:在生成含有最新赛事、节气、明星同款等时效性信息的商品图时,Agent主动搜索并结构化事实再写入代码画布,避免直接让生成模型凭空想象,提升文案准确性和知识可信度。
- 代码中介的物理/几何推理可用于商品场景模拟:当需要生成商品在特定环境下的摆放效果(如光照反射、堆叠结构)时,先通过Three.js等构建物理/几何草图作为约束,再交给渲染模型,能提升复杂空间关系的生成稳定性。
APWA:面向可并行化 Agent 工作流的分布式多智能体架构
🧭 Agent ★ 深度解读
Northeastern University
提出 APWA,一种将任务自动分解为无干扰子任务并大规模并行执行的分布式多智能体架构,在现有系统失败的场景下实现线性扩展
基于确定性Agentic Workflow的HS关税分类:多维规则推理与可解释决策
🧭 Agent ★ 深度解读
上海交通大学 · 中国海关总署 · 南京极云信息技术有限公司
通过固定控制流的多阶段LLM流水线实现HS分类的多维规则推理,输出可审计决策且开源模型性能接近前沿模型